
如何高效部署大模型?CMU最新万字综述纵览LLM推理MLSys优化技术
如何高效部署大模型?CMU最新万字综述纵览LLM推理MLSys优化技术近日,CMU Catalyst 团队推出了一篇关于高效 LLM 推理的综述,覆盖了 300 余篇相关论文,从 MLSys 的研究视角介绍了算法创新和系统优化两个方面的相关进展。
来自主题: AI资讯
3859 点击 2024-01-13 13:49
近日,CMU Catalyst 团队推出了一篇关于高效 LLM 推理的综述,覆盖了 300 余篇相关论文,从 MLSys 的研究视角介绍了算法创新和系统优化两个方面的相关进展。